RouteWeaver: Weaving Mode Selection and Execution into Unified LLM Routing
RouteWeaver：将模式选择与执行编织进统一 LLM 路由
🧭 LLM 路由 · 模式选择与执行联合优化
Nanyang Technological University · Huazhong University of Science and Technology · University of Illinois Urbana-Champaign
统一 LLM 路由框架，联合学习执行模式与模型选择，COMET-GRPO 分层信用分配+渐进式探索，五领域平均准确率提升 11.03%
📌 工作参考价值（3 点）
- 在构建 LLM 路由/调度层时，不要把执行模式（单次调用、多轮、Agentic）写死，可用一个策略联合选择模式与模型；在电商搜索/客服 query 复杂度差异大时，让策略学会按需降级或升级，能平衡成本与效果。
- COMET-GRPO 的信用分配思路可迁移：如果路由器需要同时决定“调用哪个工具/模型”和“用几步完成”，将整体奖励分解为模式级和步骤级优势信号，能缓解稀疏奖励导致策略坍缩；在 Agent 编排中分别奖励“是否选择 Agent 模式”和“Agent 内模型选择”，可避免只选单轮或只选多轮。
- Progressive exploration 类似课程学习：先用规则/预设模式训练执行能力，再放开让策略自主选择；在业务中可用固定策略冷启动或基于历史数据预训练路由，再逐步切换到在线强化学习，防止早期策略坍缩到某个低风险模式（如全部走单轮）。